在人工智能技術日趨強大和普及的情況下，任何人都可以簡單利用 AI 來生成對明星不利的照片或內容。樂壇天后泰勒絲（Taylor Swift）的 AI 虛假「不雅照片」近日湧現社交平台，有些帳號分享的內容被查看數百萬次，甚至有帖文的觀看次數超過 4,500 萬次。
日前有網友用 AI 製作她在美式足球員男友 Travis Kelce 賽事中進行的性愛虛假照片，並且透過 X 平台廣為流傳，散佈者的貼文在 17 小時後被平台刪除，但當時已經有 4,500 萬點擊率，而照片更是繼續被不同用戶分享。
有外媒透過 Telegram 社群群組，發現有成員在聊天中分享其使用生成式 AI 工具Microsoft Designer 製作虛假裸照。Microsoft 表示必須採取行動以保障網絡世界安全，他們會在技術設置保護機制，以便用戶製作更多安全的內容。
自從不雅照瘋傳後，Taylor Swift 的粉絲發起保護偶像的行動，包括降低相關內容的曝光率，舉報分享圖片的帳戶，並且以偶像的 hashtag 發佈正面的內容。同時間，粉絲亦批評 X 平台處置的速度過慢。
作為暫時的措施，X 平台阻止用戶搜尋 Taylor Swift 的名字。目前在 X 平台上搜尋 Taylor Swift 會顯示「發生錯誤」，不過透過搜尋器聯想功能仍可找到她的帳號，而全名再加其他關鍵字則可如常顯示搜尋結果。
事件引起美國政府關注，白宮表明支持立法規管社交平台上濫用人工智能技術的行為，又說平台需採取措施禁止有關內容，國會議員亦呼籲立法禁止製作深偽圖片。白宮強調，正嘗試與人工智能企業合作，將人工智能生成的虛假影像加入水印，令公眾更容易辨別真假。
